![arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日](/simg/7/7950d74bd5d43cfd47f19f081b684a20edfbc27a.png)
机构名称：
¥ 2.0
存在几种不同的方法可以确保未来变革性人工智能 (TAI) 或人工智能超级智能 (ASI) 系统的安全 [Yampolskiy, 2018, Bostrom, 2014]，不同方法的支持者对其工作在短期内以及对未来系统的重要性或有用性提出了不同且有争议的主张。高可靠性代理设计 (HRAD) 是最具争议和最雄心勃勃的方法之一，由机器智能研究所 [Soares and Fallenstein, 2017] 等机构倡导，关于它是否以及如何降低未来人工智能系统的风险，人们提出了各种论点。为了减少关于人工智能安全性的辩论中的混乱，我们在此以 Rice [2020] 之前的讨论为基础，该讨论收集并提出了四个核心论点，用于证明 HRAD 是实现人工智能系统安全的途径。我们将这些论点命名为 (1) 附带效用、(2) 消除混淆、(3) 精确规范和 (4) 预测。其中每一个都对未来人工智能系统如何存在风险提出了不同的、部分相互冲突的说法。我们根据对已发表和非正式文献的审查以及咨询就该主题发表立场的专家，解释了这些假设和主张。最后，我们简要概述了反对每种方法和总体议程的论点。
arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日
主要关键词
![arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日PDF文件第1页](/bimg/9/9ddc150168f38ef1c8f02bc386975287a70c3e85.webp)
![arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日PDF文件第2页](/bimg/e/e51f37572bfbf002cb636414b809a01cf84035e9.webp)
![arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日PDF文件第3页](/bimg/7/7430e338eb004328767b0c86e8682a21fefc86fc.webp)
![arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日PDF文件第4页](/bimg/a/a19ff29d29d1b7d13c9b344ac9d18b196ae037ec.webp)
![arXiv:2201.02950v1 [cs.AI] 2022 年 1 月 9 日PDF文件第5页](/bimg/d/db0bf723126eb220e50f9b63d48a7fd8faa0996e.webp)
相关文件推荐
![arXiv:2209.03929v1 [cs.AI] 2022 年 9 月 8 日](/simg/6/672d2fccbb7f9f52b3d9ec2bc1af4cb846806851.png)
![arXiv:2112.12754v2 [cs.AI] 2022 年 2 月 6 日](/simg/2/2ae1c7ced0b6cb3a6dbfb3b7bdbff743ba4ccf33.png)
![arXiv:2208.02886v1 [cs.AI] 2022 年 8 月 4 日](/simg/1/1c9e25aca4e4de77bf16485751b3063f311615e9.png)
![arXiv:2205.12749v2 [cs.AI] 2022 年 7 月 1 日](/simg/2/2065ed9bc53d9d49461c4886d3dbb8f82d668f71.png)
![arXiv:2206.00474v1 [cs.AI] 2022 年 6 月 1 日](/simg/3/332cb6cfff481bb8ac1b12870475df1e5b816494.png)
![arXiv:2207.05643v1 [cs.RO] 2022 年 7 月 12 日](/simg/9/914a0980453c8245d7338c340cfcc7abaab03a7a.webp)
![arXiv:2208.04918v1 [astro-ph.IM] 2022 年 8 月 9 日](/simg/9/9d15cac181c360859687f326fefb237d55bfa250.webp)
![arXiv:2210.00881v1 [cs.AI] 2022 年 9 月 23 日](/simg/1/1712e871bec82f88be930b368883f57dd34b3191.png)
![arXiv:2208.11173v1 [cs.AI] 2022 年 8 月 23 日](/simg/a/acd8361405cf183a29f07fb0516f81acb01ed7b8.png)
![arXiv:2212.08967v1 [cs.AI] 2022 年 12 月 17 日](/simg/7/7809d8928361687e07ab3ea17a631d622bec4a43.png)
![arXiv:2211.08671v1 [cs.AI] 2022 年 11 月 16 日](/simg/d/d5430f7ae8525ad103bb47e8f0b166c79bb08184.png)
![arXiv:2208.10629v3 [cs.CR] 2022 年 12 月 3 日](/simg/e/eb1262714226878482b0cf1d7af9be5069ea8d28.webp)
![arXiv:2206.14855v1 [cs.CY] 2022 年 6 月 29 日](/simg/7/7a22e50a479deb4fc5347e49e70a231a3df4c105.webp)
![arXiv:2209.03956v1 [q-bio.NC] 2022 年 7 月 17 日](/simg/7/78b9783c41970cf7d752a579b54ae9f4bb2a7c6f.webp)
